📢 Etica Digitale

🤖 All'IA basta il tuo nome per sapere se (non) sei portatə per il lavoro

L'utilizzo dell'intelligenza artificiale nel processo di selezione del personale è una tendenza in forte crescita. I dipartimenti di risorse umane non generano profitto per le aziende, trovandosi così costantemente sotto pressione per ridurre le spese. Una possibile soluzione ideale è l’utilizzo di strumenti come GPT: un’IA sviluppata da OpenAI, capace di "comprendere" e generare testi in maniera sorprendentemente umana.

Tuttavia, uno studio condotto da Bloomberg ha rivelato che GPT discrimina lɜ candidatɜ basandosi esclusivamente sui loro nomi, evidenziando come tali pregiudizi di genere e origine etnica siano influenzati dalla natura del lavoro ambito. Ad esempio, nomi maschili sono svantaggiati nelle risorse umane, mentre nomi femminili afroamericani sono penalizzati nell'ingegneria informatica.

Sebbene OpenAI consigli di adottare misure preventive, come oscurare i nomi dai CV prima della loro valutazione, e vieti l'uso di GPT per assunzioni totalmente automatizzate (senza intervento umano), l'azienda non proibisce l'uso di GPT per creare analisi che assistano nel reclutamento.

Nella pratica, però, ciò si traduce in reparti di risorse umane che spesso si affidano all'IA per scremare grandi mole di curriculum, concentrandosi poi solamente sui migliori selezionati. Senza che, in tutto ciò, sia chiaro allə candidatə il motivo per cui non è statə assuntə.

https://www.bloomberg.com/graphics/2024-openai-gpt-hiring-racial-discrimination/

#IA #lavoro
@eticadigitale

Bloomberg.com

OpenAI’s GPT Is a Recruiter’s Dream Tool. Tests Show There’s Racial Bias

Recruiters are eager to use generative AI, but a Bloomberg experiment found bias against job candidates based on their names alone

www.tg-me.com/it/Etica Digitale/com.eticadigitale/845

2.1K viewsedited  Mar 26 at 11:01

🤖 All'IA basta il tuo nome per sapere se (non) sei portatə per il lavoro

L'utilizzo dell'intelligenza artificiale nel processo di selezione del personale è una tendenza in forte crescita. I dipartimenti di risorse umane non generano profitto per le aziende, trovandosi così costantemente sotto pressione per ridurre le spese. Una possibile soluzione ideale è l’utilizzo di strumenti come GPT: un’IA sviluppata da OpenAI, capace di "comprendere" e generare testi in maniera sorprendentemente umana.

Tuttavia, uno studio condotto da Bloomberg ha rivelato che GPT discrimina lɜ candidatɜ basandosi esclusivamente sui loro nomi, evidenziando come tali pregiudizi di genere e origine etnica siano influenzati dalla natura del lavoro ambito. Ad esempio, nomi maschili sono svantaggiati nelle risorse umane, mentre nomi femminili afroamericani sono penalizzati nell'ingegneria informatica.

Sebbene OpenAI consigli di adottare misure preventive, come oscurare i nomi dai CV prima della loro valutazione, e vieti l'uso di GPT per assunzioni totalmente automatizzate (senza intervento umano), l'azienda non proibisce l'uso di GPT per creare analisi che assistano nel reclutamento.

Nella pratica, però, ciò si traduce in reparti di risorse umane che spesso si affidano all'IA per scremare grandi mole di curriculum, concentrandosi poi solamente sui migliori selezionati. Senza che, in tutto ciò, sia chiaro allə candidatə il motivo per cui non è statə assuntə.

https://www.bloomberg.com/graphics/2024-openai-gpt-hiring-racial-discrimination/

#IA #lavoro
@eticadigitale

BY 📢 Etica Digitale